[信息爆炸] 印度政治派系利用AI技术制作深度伪造视频，你还能相信谁？

近日，印度正举国进行着一场预计将持续至6月的总统大选活动。而自生成式AI大火以来，该技术除了给大众带来一些创作上的便利以外，还将一种名为“深度伪造”（是被称作“生成式对抗网络”（GAN）的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。深度伪造最常见方式是AI换脸技术，此外还包括语音模拟、人脸合成、视频生成等）的技术概念带到了公众的视野中。最近曝光的一段视频显示，一些宝莱坞（是印度孟买电影工业基地的别名，也被称作是“印地语电影”）明星像模像样地在屏幕前表达着自己对于这次大选的政治观点。但这段视频其实是由深度伪造技术仿制的。

此段视频中包含了印度著名演员阿米尔·汗（Aamir Khan）和兰比尔·卡普尔（Ranbir Kapoor）。他们在视频中怒斥，纳伦德拉·莫迪（Narendra Modi）总理在两届任期内未能兑现其之前的竞选承诺，即未能解决该国关键的经济问题。此外，视频最终是以印度反对派的标志性选举口号收尾的：“投票给正义，投票给国会”。（Vote for Justice, Vote for Congress）

宝莱坞明星，兰比尔·卡普尔 © Instagram/Ranbir_kapoooor

然而，这些明星本人否认参与了这些视频的录制。专家指出，在一个缺乏批判性思维培养的社会中，这些深度伪造视频给印度公众在辨别真假信息上带来了巨大的负担，因为他们很容易受到各种意识形态的影响。

另一位印度知名艺人兰维尔·辛格（Ranveer Singh）也同样出现在了一段支持某特定政党的剪辑视频中。这导致辛格的父亲对发布该视频的X（其前身是美国社交媒体“推特”）用户提起了上诉，指控其滥用技术手段并损害其儿子的声誉。

事发后，印度事实核查平台BOOM使用由印度理工学院焦特布尔校区（IITJ）开发的深度伪造检测工具“itisaar”，对辛格的视频进行了分析，并最终确认视频中包含了AI语音克隆。BOOM高级事实核查员兼记者阿奇斯·乔杜里（Archis Chowdhury）表示，虚假信息已然成为该国面临的最大问题之一，而由深度伪造技术带来的更加难以辨别的虚假信息使得本就糟糕的局势雪上加霜。

全球数字版权组织Access Now的高级政策顾问纳姆拉塔·马赫什瓦里（Namrata Maheshwari）在亚洲《This Week》杂志上表示，随意地或欺诈性地使用任何人身份的行为都应受到严肃处理。在类似选举活动这样的敏感时期，能够及时甄别并纠正此类滥用行为的举措是更加有必要的。

马赫什瓦里女士补充道：“各政党在竞选活动中都不应使用任何有害的错误或虚假信息，无论这些信息是否由人工智能生成的。”她指出，当政治团体或其成员在社交媒体上大肆传播受操纵的内容或仇恨言论而不检查信息的真实性时，便会对普通民众和社会舆论造成伤害。在选举季，人们常常被大量信息淹没，而核实这些信息是否属实的义务不应完全落在选民身上。

马赫什瓦里女士继续说道：“AI技术的出现大幅降低了制作有害或不实内容的时间和成本，这使得印度本就严重的虚假信息问题变得更加复杂。此外，社交媒体平台使用的旨在快速传播吸引眼球的内容的算法，也是这些极具误导性的数字媒体广泛传播的重要因素。因此，需要制定对应的解决方案来控制这种传播。”

尼拉利·巴蒂亚（Nirali Bhatia），一位在孟买以帮助客户克服网络霸凌的心理学家表示：“在印度，名人的政治观点对选民的投票决定有着重大影响。无论名人的意识形态与选民是否一致或相反，其影响都将是深远的。”但不幸的是，这种影响通常都是负面的，因为即使在揭穿虚假视频之后，人们依然会心存怀疑，导致他们不断质疑自己到底该相信什么。

巴蒂亚警告说，在竞选期间，由虚假剪辑或深度伪造带来的政治观点可能会很普遍，“缺乏信任，将导致人们越来越难以辨别真伪”。此外，印度社会中普遍存在的邪教文化和盲目信仰，也是由于印度民众很容易在没有批判性思维的情况下接受信息所导致的。

随着技术的进步和人工智能带来的影响，辨别真相的任务落到了每个人身上，这增加了人们的认知负担。要想减轻这一负担，提高公众的批判性思维和媒体素养恐怕是唯一出路。

数字律师兼在线公民自由活动家米什·乔杜里（Mishi Choudhary）指出，因为缺乏大量经验数据的训练，目前的人工智能检测工具还难堪重用，但历史经验表明，仅凭借受操纵的无良媒体发布的各种言论，同样会产生广泛而深远的舆论影响，特别是当这些媒体被政客们，如在选举期间，利用时。

她表示，虽然一些社交媒体公司承诺将为人工智能生成的内容打上特殊的数字标签，但很显然，这些系统目前也尚未做好准备。此外，这些社交媒体平台并非依靠自身独立运作，关键还是在于广大群众如何使用和传播这些内容。她认为，虽然这些社交媒体巨擘们在这方面扮演着重要角色，但同时我们也需要完善的监管措施，并要求部署这些系统的人明确标记和披露人工智能的使用情况。

END